专利摘要:
低減された電力浪費のため、透過ディスプレイ100は、バックライト106と、該バックライトからの光を変調して画像を生成するためのバルブ110と、を有し、該透過ディスプレイは更に、接続された視聴者挙動検出手段150、152、165、160との接続のためのコネクタ198と、該視聴者挙動検出手段から挙動測定信号I_usrを受信するための該視聴者挙動検出手段への入力接続部C_iを持ち、且つ挙動測定信号I_usrに依存してバックライト106に最適駆動値D_Lbを送信するための出力部O_BLを持つ、電力最適化器120と、を有する。
公开号:JP2011505721A
申请号:JP2010533701
申请日:2008-11-13
公开日:2011-02-24
发明作者:マルク;ジェイ;ダブリュ メルテンス
申请人:コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ;
IPC主号:H04N5-66
专利说明:

[0001] 本発明は、新たなタイプの省電力透過ディスプレイ及び該ディスプレイを駆動する方法に関する。]
背景技術

[0002] 世界的な人口増加、及び人々の環境破壊に対する意識の増大と共に、環境に優しい電気機器を作ることが重要となっている。なぜなら、今後も常に市場に投入されていく電気機器が存在するからである(例えば手動の歯ブラシの代わりに電動歯ブラシが使われ、1つのインターネットのクエリが環境に優しい電球の1時間の電力と等しいコストが掛かる)。少なくともこれら機器を可能な限りエネルギーに優しいものとするための、継続されるべき重要な傾向がある。]
[0003] テレビジョンについてはこのことは、テレビジョンが自動的に何らかの基準に基づいてスイッチオフされる(何らかのユーザ挙動に基づくものとするならば、このことは一種の高度なユーザインタフェース/リモートコントローラ/オン・オフボタンとみなすこともできる)という考察に導いてきた。]
発明が解決しようとする課題

[0004] しかしながら、コストにかかわりなく、考え出され得るインタラクティブなスイッチにはいずれも、何人かの又は多くの人はテレビジョンをスイッチオフしたくないという事実が残る。本発明者は、「これらの人が本を読んでおり且つテレビジョンが再生中のままであるのを見たとき、彼らは本当に、30分の後にさえも立ち上がってテレビジョンをスイッチオフしないほど怠惰なのか、それとも例えばひとりの人が心地良い雰囲気を得るためにテレビジョンをオンにしておくことを意図的に選んでいるのか?」という疑問を提示した。]
[0005] それ故、斯かる自動スイッチオフ機器は、該機器の(潜在的な)所有者の要望に沿ったものではないものとなり得、従って市場において何らかの他の付加に対するニーズが存在し得る。]
課題を解決するための手段

[0006] 斯かる考察に鑑み、本発明の技術の要素はとりわけ、
バックライト(106)と、前記バックライトからの光を変調して画像を生成するためのバルブ(110)と、を有する透過ディスプレイであって、
接続された視聴者挙動検出手段((150、152、165)、160)との接続のためのコネクタ(198)と、
前記視聴者挙動検出手段から挙動測定信号(I_usr)を受信するための前記視聴者挙動検出手段への入力接続部(C_i)を持ち、且つ前記挙動測定信号(I_usr)に依存して前記バックライト(106)に最適駆動値(D_Lb)を送信するための出力部(O_BL)を持つ、電力最適化器(120)と、
を有することを特徴とする透過ディスプレイを有し得る。]
[0007] 本ディスプレイにおいては、視聴者は依然として適度な画質の画像を見ることができる。例えば、視聴者が誰かと話しながら又は皿洗いをしながら、現在何が放送されているかを5分毎にチェックするために該ディスプレイを見る場合には、使用される電力のかなりの節減があり得る。この新規なシステムはこのとき、以下の2つの要素を必要とする。]
[0008] 最初に、ユーザが何をしているかの識別を可能とする検出手段又はシステム(検出器と該検出器からのデータを解析し該データを電力最適化戦略により利用可能な数学的モデルに変換するための解析プロセッサとを有する)がある。例えば、カメラ160である特定の検出器に基づいて、該解析プロセッサは、人物がディスプレイを見ているか、及びどのくらいの頻度で見ているか(即ち、該人物が連続的に見ているか、又は大部分の時間の間他の活動をしながら時々見ているか)をチェックすることが可能であっても良い。該検出器は、典型的にはディスプレイに物理的に装着されるが、コネクタ198は、例えば防犯カメラのような部屋の隅に予め固定されたカメラへの無線リンクであっても良い(この場合、視線推定(以下を参照のこと)が変化する全体像を考慮に入れる必要がある)。該解析プロセッサは典型的にはディスプレイにおける中央プロセッサ(例えば電力最適化器が既に含まれるもの)であるが、インテリジェントセンサに属するものであっても良い(例えば、ユーザの部屋の中での動きの解析を実行し、該解析についての数学的モデルコードをコネクタ198を介してディスプレイに送信する、ラップトップに接続されたカメラ)。]
[0009] 該数学的モデルは、二値のインジケータのように単純なものであっても良いし(番組を観ている=1;観ていない=0)、又は、種々のタイプの行動についての名目的な(クラス)、順序的な、又は比率の数値コードであっても良い(例えば、ユーザが連続的に観ている=1;ユーザが50%の時間だけ観ている=2;ユーザがたまに観ている=3、若しくは、ユーザがテレビの前(10cmから2.5mまでの距離)の椅子に座っている=1;ユーザが室内で活動している(2.5mから6mまでの距離)=2;ユーザが別の部屋にいる(部屋を離れた)=3)。]
[0010] 第2に、ユーザの振る舞いが、該ユーザがしていることを反映する物理的なパラメータを測定する検出器により斯くして分類されると、数学的なコードがディスプレイ(即ちバックライト、及び幾つかの実施例においてはバルブ(valve)のための駆動値)を最適に制御するために利用され、それにより、依然として適度に可視な画像(もはや最大限に可能な画質ではないが)が、低減された電力で表示される。]
[0011] 利用される電力に主に焦点を当て次いで可視性(このとき低くなり得るが、依然として利用可能ではある)を最適化することにより、若しくは最大限に達成可能な電力削減を得るために最小限必要な可視性に制限することにより(このことは高齢者にとって有用となり得、又は、目前のタスクが単に快適な動画を背景に持つことではなく、例えば子供部屋を見ることのようなより重要なタスクである場合、ユーザは、例えばリモートコントローラ上の専用ボタンのようなユーザインタフェース170を介して入力することにより、どの省電力モードが望ましいかを設定しても良く(例えば、背景の雰囲気=1;必要な画像/テキストの即座の認識=2;…)、それ故、どれだけの電力が可視性を犠牲にして削減され得るかを設定しても良い)、又はこれらの両方を同時に最適化することにより、電力と可視性との間でバランスをとるための、幾つかの選択肢がある。]
[0012] 観ている/観ていないによるシナリオについては、電力制御は、バックライトについての駆動値D_Lbを半分にする(ディスプレイにおける予め設定された戦略に従って)ことのような簡単なものであっても良いが、一般的には、バックライトの減光範囲、バルブのダイナミックレンジ、周囲の場面の色及び室内照明、ディスプレイの全面における反射の量、表示される画像における構造のサイズ(又はより一般的な画像のオブジェクトの内容)、観測者の距離、観測者の活動度、観測者の関心レベル、時刻、現在表示されているコンテンツのタイプ(スポーツビデオかテキストページか)等のような、より複雑な最適化戦略が望ましい。]
[0013] 最後に、バックライト/ビデオパラメータを変化させる処理の速度についての幾つかのシナリオがあり得ることは、言及されるべきである(同様に、どれくらいの頻度でユーザが観ているか、又はユーザがどのように観ているかを決定するために利用される特定のアルゴリズムに依存する)。例えば、ユーザが友人と活動していると分類される一方、例えば3分間ディスプレイをより注意深く観ていることを無視し、その結果、での出力輝度及びバックライトのパワーが低いままとなる、低速モードを持っても良いし、又は、高速モードにおいて、例えば視聴者が15秒以上観ている場合にはディスプレイがバックライト輝度を即座に高くリセットしても良い。これらのモードは、ユーザインタフェース170を介して設定されても良いし、又はディスプレイに予め含まれたアルゴリズムによって推定されても良い。]
[0014] 幾つかの実施例におけるように、特定の量を用いてバックライトのパワーを削減する場合、電力最適化器は、バルブのためにより最適な駆動値I_outを算出し、バックライトを変化させて該バルブに対する入力画像を提示する場合よりも、より可視な表示出力画像を生成することが有用である(例えば、画像がコンテンツにおいて暗い場合には、バルブを最大範囲にまで駆動しつつ、バックライトを低減することによって再生され得る)。このことは、入力画像imに対する画像拡張処理Tに対応する。単純なモデルにおいては、信号が送信されるバルブにかかわらず、I_outは単一の範囲(例えば[0,255])である(例えば、画素値(0,10)及び(10,10)が共に該範囲内の信号240を持つ場合、これらは共に同じ量の光を伝送する)が、より複雑な場面/セグメント化に依存する変形例においては、I_outは画像としてみなされるべきであり、即ちI_out(x,y)は、各バルブ画素(x,y)についての特定の値を持ち、即ち例えば表示される画像増の中央を入力画像に比較して幾分か明るくすることができる。]
[0015] 本発明の又は本発明に関連するこれらの及び他の態様は、図面を参照しながら説明され明らかとなるであろう。]
図面の簡単な説明

[0016] 結合された一組の代替的な観測者挙動検出手段を備えた具体的なLCD透過ディスプレイの実施例を模式的に示す。
電力最適化器の変換Tの例が、どのように、より可視な表示画像を与える、バルブについての駆動値I_outに入力画像のグレイ値をマッピングするかを、模式的に示す。
表示可能な画像の可視性を測定するための方法の例を模式的に示す。
注視方向推定ユニット(典型的にはソフトウェアコンポーネントから成るが、必須ではない)の例を示す。]
実施例

[0017] 図1はLCDベースのテレビジョンを示し、バックライトモジュールにおいては分解図で示し(TL管107が示されているが、例えばLEDであっても良い)、該バックライトモジュールの前には画素111、112、…を備えLCDバルブ110があり、LCDバルブ110は、ドライバ(図示されていない)を介したトランジスタへの適切な電圧の制御の下で、当該位置におけるバックライトの特定の割合を透過し、例示されるような画像を形成する。] 図1
[0018] 透過ディスプレイ100はこのタイプのディスプレイに限定されるものではなく(ハードウェア構成においてもサイズ又は適用分野においても)、例えば、会議室、商用ディスプレイブース又はラップトップPCディスプレイのための減光可能な照明を持つフロントプロジェクタであっても良い(ユーザが例えば電車内でインターネットをブラウズするために該ユーザの前のテーブルに置きつつ、同時に隣の人物と議論をする)ことを、当業者は理解するであろう。当業者は、「バルブ」なる語は、バックライトから当てられる信号により制御可能な光の量を局所的に通過させることが可能な、いずれの物理的な構造を総称的に意味することを、理解するであろう(例えば駆動信号=0を供給することは該バルブを閉じ、即ち略光を透過させず、一方駆動値255は該バルブを略完全に(100%)透過なものとする)。良く知られた斯かる手段は液晶であり、電圧の制御下で、光に干渉する内部構造を変化させ、特定の方向により少ない又はより多い光を出射させるものであるが、例えば制御された量の吸収色素を放出するバブルのような、他のディスプレイのタイプも存在する。]
[0019] 更に図示されるものは、幾つかのとり得る視聴者挙動検出手段であり、本発明のシステムが動作するためには、このうち1つのみ存在していれば良い(本システムにおいてディスプレイに接続可能である)。ユーザが、好適には適切な位置(椅子の上)に、存在しているか否かを検出するため、熱赤外線(約10ミクロン)検出器165が存在しても良い。該検出器はユーザの存在を検出するのみであり、頭/目/注視の方向は検出しないが、特定の用途には動作する。例えば、本システムは、視聴者の居ない、次いで椅子に座った視聴者の熱のある、部屋を検出するように予め較正されていても良い。熱画像が可能な、より高度な検出器が、視聴者のサイズ等を観測しても良い。]
[0020] 例えば周囲の場(電気的なもの、光学的なもの、超音波、等)の乱れに依存して、ディスプレイの周囲の視聴者の位置及び動きをチェックするための、幾つかのより複雑なシステムが組み込まれても良い。図示された例は、少なくとも1つの超音波発生器150、及び少なくとも1つの(幾つかの最適に構成されたものがあっても良い)受信器152を持つ。反射されるパルスが、前方の構造が適切に変化したか否かの示唆を与える。例えば、飛行時間解析においては、ユーザは椅子の背よりも近くに座り、該ユーザの動きが検出され得る。]
[0021] しかしながら、以下においては、(例えばディスプレイの上面の中央に)取り付けられたカメラ160を用いる、比較的安価で単純でありながら頑強なシステムを、詳細に説明する。ステレオカメラ(例えば距離推定に関して汎用性を実現する)が示されているが、通常のカメラ(RGBのもの、更にことによると、顔検出に役立ち得る第4の近赤外線センサを持つもの)でも構わない。]
[0022] 以下、図4を参照しながら、斯かるカメラがどのように注視方向推定を用いた非常に有用な実施例のために利用され得るかが説明されるが、最初に、「ユーザが存在する(テレビジョンの前の椅子に座っている)」又は「ユーザが表示された画像の方向を向いており即ち観ている」といった示唆を得ることを仮定して、どのように電力削減が動作するかを説明する。説明の単純さのため、比較的実装の簡単な方法を主に説明し、ついで、より複雑な可能性について手短に説明する。] 図4
[0023] 図2は、入力画像信号imから導出された、図1に示された「家」の画像のヒストグラム200を示し(グレイ値−色は簡単のため無視されているが、例えば暗い彩度の高い色に幾分か明るい輝度を与えて、より輝くように見えるように、以下のマッピングは色も考慮に入れても良く、以下、グレイ値と色とは交換可能に使用し、当業者は、カラーの画素の輝度についてのものかグレイ値についてのものかを理解できるであろう)、該入力画像は、0と255との間の値を持つディスプレイのためのグレイ値I_in(即ち本発明が適用されない場合にバルブを制御する)と、特定の値を持つ画像中の画素の量の数nとを有する。バルブの増大物理特性のため、局所的なバックライトユニットがLbルーメンを生成し、局所的な画素が駆動値I_out(例えばI_inに等しい)で制御される場合、表示画素から局所的に出射される光はLo=(244/255)*Lbである。] 図1 図2
[0024] 入力画像は、全体の範囲[0,255]よりも小さな範囲のグレイ値を持ち得、又はしばしば、255に等しい値を持ち得、このことはしばしば過度に高いダイナミックレンジの場面が取り込まれたことを示す(例えば、太陽183がクリップされ得、従って該太陽の色は現実的ではなく、該色を再割り当てするかなりの自由度を持ち、例えば25に近い全ての色を同様に扱い、これらを255に割り当て、残りの[0乃至254]を他のオブジェクトの色を最適に分布させるために利用しても良い(再クリッピング))。]
[0025] 本例においては、第1のヒストグラムの凸部201は、明るい窓181を除く、家180の色を有する。窓181は、空の画素に対する第2のモード/隆起部を持ち、植物(草及び木)は中間の範囲の凸部202に入る。]
[0026] 第1の興味深い尺度は、入力画像最大値(m)である(例えば235に等しい)。既に、比率235/255でバックライトを既にスケールダウンしつつ、同時にI_in値を反比と乗算(即ち最大駆動値がこのとき255になる)、同一の表示される出力画像の外観が正確に保たれ得る(即ち表示される画像の可視性をも変化させない)。しかしながら、範囲を見ると、更なるバックライトの減光を為し得ることが認識される。最初に、ヒストグラム200の3つの凸部を255/235と乗算し、修正された駆動値I_outを得ている場合、凸部201の下限(例えば10%の百分率境界LP)に依存して、即ち、出力輝度L=LP*Lbが典型的な室内全面反射に略等しくなるまで、バックライトを更に減光することができる(周囲の光センサがシステムに含まれても良く、該値を修正するための更なる考慮、例えばLPよりも低い値が生じるオブジェクトの量又はサイズ等が、利用されても良い)。]
[0027] しかしながら、第2に、縮小された範囲、及び更には典型的なヒストグラムの凸部間の距離が、可視性毎により優れた修正を行う機会をつくり、不十分な凸部間距離しかない場合、電力最適化器が、入力画像を変更することにより該距離を増大させても良い。]
[0028] 電力最適化器の単純なアルゴリズムは、(簡略化された以下の説明において利用される)ヒストグラムにおける典型的な凸部を見出すためにヒストグラム解析を実行し(より高い品質のアルゴリズムは類似色の空間特性をも見るが)、更に幾何的な画像セグメント化を実行する。例えば、凸部203は、空と2つのウィンドウとの両方の画素から成るが、この知識があれば、別個のウィンドウの離隔された領域を見出すことは容易である(図3における凸部204により模式的に示される)。ヒストグラム分解のための幾つかの方法が先行技術においてはあり、例えば最初に最大値を探し、次いで両側に傾斜がどれくらい深いかを見ても良い(例えば、ガウス関数のような平滑で単純な関数との相関を見ても良い)。しばしば、この粗いレベルに適用された場合、斯くして得られた凸部は既に画像構成の優れた記述を与える(例えば空は典型的には地面よりもかなり明るい)が、目的は可視性を改善することであるため、有意なオブジェクトのセグメント化は絶対的には必須ではない(とりわけ、或るオブジェクトにおいて木が草と併合されることは許容可能である。なぜなら、これらは類似する色を持ち、電力最適化器はこれらに対して同様な変換を適用して、これらをディスプレイの周囲及び/又は画像中の他の色よりも可視性高く描画するからである(最初に、周囲があまり重要ではなく、可視性が画像(im)の内容のみで決定され得る状況を説明する(例えばテレビジョンは典型的には周囲よりもかなり明るい)が、ambilight(登録商標)がスイッチオンされている場合、更に信頼性高い可視性モデルが、電力使用に対して最適化されるべき画像の可視性を推定する際に、照明される周囲への視聴者の順応を考慮するべきである))。] 図3
[0029] 分解アルゴリズムから幾つかのヒストグラム凸部が得られると、電力最適化器の目的(電力最適化器が、算出された出力パワー(主にバックライト駆動値に依存する)及び推定された可視性の関数である、バックライトレベルD_lb=f(P,V)を単に変更するのではないが、改善された可視性及び/又は更に低減された電力使用のために最適化されたバルブ駆動信号を生成するため、画像拡張I_out=T(I_in)の更なる自由度を利用したい場合)は、これらのモードを最適に再配置することである。例えば、電力最適化器は、凸部203における全ての値を単一の(又は非常に少ない数の)値にポスタライズ(posterize)して、修正されたヒストグラム凸部253を得ても良い。斯かる極端な手段(最適化されたD1とD2との距離)は、非常に厳しい状況の下でのみ必要とされる。一般に、凸部内で依然として識別可能な幾つかの異なる輝度があり、従って、単に凸部を別の凸部と離すように動かし、内部の凸部形状をそのままにすることが好適と思われる。]
[0030] しかしながら、このことは、範囲301(楕円により示される)内の色が、範囲302の色に類似し過ぎ、即ち、ユーザが本当に注意深く見ていても、ユーザが座っている場所から現在のバックライト条件等の下で識別され得ないという状況に導き得る(このことは特定のタスクに対して望ましくなく、例えばユーザが何らかのカラーのグラフィックのテキスト(テキストはテキスト検出器により容易に検出されセグメント化され得る)を読んでおり、テキスト及び背景の色がこれらの領域内であり、且つバックライトが非常に低い場合、凸部251及び253への二値のポスタライズが望ましいものとなり得る)。この状況はしばしば起こり、例えばリンゴのような丸い物体に影がある場合、一方の側ではリンゴは明るく暗い背景からは容易に識別可能であるが、他方の側ではリンゴの縁が見えない。]
[0031] 従って、優れた可視性/電力バランシングを実行するための電力最適化器のための単純なアルゴリズムは、以下のようになる。]
[0032] 隣接する凸部についての分割境界は、電力最適化器(図3を参照)により決定され、例えば凸部202の全ての画素の5%が下限L_L1の下に含まれ、5%が上限L_U1の上にある(この5%は、工場において誤差の量としてアルゴリズムに予め設定されても良く、最悪の場合に可視性が悪くなり得る及び/又は付近のオブジェクトから区別できなくなり得る色であるが、オブジェクトのセグメント化及び解析から利益を得る、より複雑なアルゴリズムが、この基準を画像毎に決定しても良く、例えば5%の上位の画素が、推定された/セグメント化されたオブジェクトの境界の近くにある場合、該境界は0%に設定されることが好適であり(即ち凸部の上端)、オブジェクトの中央における小さなパッチ部(照明反射ハイライトである見込みが高い)である場合には、これらは最適化から破棄されても良い)。] 図3
[0033] 第1の凸部202の上限L_U1と第2の凸部203の下限L_L2との間の距離D_vはこのとき、可視性推定におけるパラメータとなる(可視性推定ユニット133は典型的には、所与のディスプレイハードウェア制約における人間の視覚の心理をエンコードした別のソフトウェアプログラムであり、典型的には電力最適化器120であるプロセッサ上で動作し、実際の電力最適化を実行する駆動値算出ユニット134のための入力を与えるか、又は典型的には該ユニットから数回呼び出されるが、ここで提示された新規な教示を得た当業者は、異なるソフトウェア又はハードウェア構成としてこのことを実現するために、単なるプログラミング又はIC設計を超えた問題を見出すことはなく、実際の状況における説明を認識するであろう)。電力最適化器が画像セグメント化ユニット135により画像をセグメント化することが可能である場合、インテリジェントに最適化するための更なる距離(D_v2)及び更なる自由度が存在することとなる。]
[0034] これらは電力最適化器が調節できる可変のパラメータである。なぜなら、電力最適化器は凸部をシフトさせて可変の凸部間距離I_Dに導くこと、又は凸部の形状を修正して(例えば圧縮して)更なる距離SQに導くことが共に可能であるからである(本アルゴリズムにより変化可能な凸部形状の量は、単純な「ブラインド型」のバージョンでは、典型的には、凸部におけるグレイ値の範囲及び凸部における画素の量といった要因に依存する(重要度が相関し、例えば小さなウィンドウは単一の値に容易にポスタライズされ得る)が、より高度な画像解析方法は更に、例えばより中央のオブジェクト又は顔が他の凸部よりもあまり修正されない凸部を持つべきであることを考慮に入れ得る)。後者は、単純な実施例においては、ブラインド的に実行され、オブジェクトの画素の幾分かの変色に導くが、周囲とはより異なるものとし、コントラストを増大させる。しかしながら、オブジェクトのセグメント化が実行される場合、本アルゴリズムは例えば、オブジェクト境界に近い影の勾配を離隔し、凸部の端と識別し、凸部の形状の当該部分、例えば301のみを、パラメータ的に修正する(即ち例えば、勾配を2つのとり得るグレイ値のみのコントラストの強いものとし、より平坦で3Dに見えないリンゴに帰着するが、周囲に対してはコントラストが強く、即ち可視性の高いものとなる)。]
[0035] 可視性の単純なモデル(より複雑なモデルは周囲の色のパッチの構造、セグメント化されたオブジェクトのサイズ等を利用し得るが)は単に、全ての色を(比較的大きな)パッチ色として扱う。このとき、視覚心理学的な研究は、少なくとも1つの「丁度可知差異」(JND)輝度差があれば、L_U1以下のグレイ値は、L_L2以上のものと区別可能であることを示している。該JNDは、ディスプレイ及び画像オブジェクトサイズ、全体の輝度、視聴者の順応等のような幾つかの要因に依存するが、単純な近似としては、低輝度L_U1の2%であると言い得る。]
[0036] 最低限達成可能な電力の量に焦点を当てつつ幾分かの可視性をも保つ最適化において、電力最適化器は凸部を再算出し、これら凸部の限界が少なくともJNDの工場で設定された値とは離れる(例えば3JND)ようにしても良い。オーバラップする凸部については、このことは過度の凸部形状の圧縮を含んでも良く、幾つかのオブジェクトについてはことによると、単一値ポスタライズにさせ帰着し得る。]
[0037] 可視性に焦点を当てた最適化においては(幾分かの電力使用も低減する)、視聴者は例えば、リモートコントローラを用いて必要とされるJNDの量を増大させても良い。このことは高齢者にとって有用となり得るが、例えば視聴者が明るいランプの下でトランプをしているために可視性が誤って推定された場合にも有用となり得る。]
[0038] また、幾つかの実施例は、例えば遠くにいる視聴者がいずれに対してもあまり関心がない見込みが高いがグローバルなパターンを変更する(ちらつく電球のように)という仮説に基づいて、視聴者の距離に依存して(半)自動的にパラメータを変更する(この場合、最適化における手入力が価値があるものとなり得る)か、又は対照的に、オブジェクトが小さくなっており、既に解像度の理由で画像の細部失われつつある場合、これらのオブジェクトは適切にポスタライズされ、又は少なくとも少ない内部値によって表現されるが、凸部が最大限に分離されることを可能とする。]
[0039] 図4は、視聴者挙動検出手段の例をどのように構築するか、即ちユーザがディスプレイに表示されているもの(テレビジョン番組、Eメール等)を観ているか否かをチェックするものについての、更なる情報を示し、該ユニットは典型的には注視解析器121内にある。注視解析器は、接続C_iを介して、カメラからの生の画像である挙動測定信号I_usr(一般に幾分かのユーザ挙動態様を粗く推定するための十分な情報を含む何らかの信号)を得ることが仮定される(I_usrは顔方向角のような既に予め処理された情報ではないが、幾つかの実施例では可能である)。最初に、場面解析ユニットが、例えば顔の色に基づいて、顔411を抽出する。顔解析ユニット420は、最初に例えば楕円形状に基づいて顔が検出されたか否か(顔の色の花瓶412ではないか)をチェックするが、更に顔を分析して顔の方向を抽出するように構成される(角Ahが算出され他のシステムモジュールに出力されても良い)。このことは例えば、特徴的な顔の点(目尻、鼻の下の影等)の間の接続網421を見て、その遠近法による収縮を分析することによって実行されても良い。] 図4
[0040] 目が抽出されると、目解析ユニット430が、目を解析し、とりわけ目の注視方向を解析するように構成される。このことは、明るい領域と暗い領域との間の円形の弧431を検出し、瞳432の中心点を推定することにより実行されても良く、少なくとも水平角Aeh、更にことによると垂直角(共に正負の最大値間にあり、ゼロは真っ直ぐなものを表す)に帰着する。例えば虹彩の両側の白目の量(AmL、AmR)のような、他の手法が決定において利用されても良い(代替として又は精度を増大させるために)。更に、目解析ユニット430は、角度Aeh、Aevから、これらの因子をディスプレイ、カメラ及び部屋の幾何として考慮に入れることにより、ディスプレイの方を見ているか否かを算出するように構成される(ユーザが幾つかの視聴/非視聴時の目位置を測定させる予備的較正もまた可能であり、目角度空間及びことによると関連する確率における分類境界に導く)。]
[0041] 最後に、この少なくとも水平目角度データは、時間統計ユニット440への入力であっても良い(該ユニットは任意のものであり、他のユニットは単にとり得る実現例であるが、異なる態様で構成され得る)。人物は、十分に長い時間間隔I_w(例えば2秒)の間角度Aehがゼロに近い(少なくとも目がディスプレイ内のどこかに十分に入る即ち中央に近いほど十分に小さい)場合に、特定の時点(W(t)=1)において観ていると分類される。]
[0042] また、更に高度なシステムにおいては、視聴者行動分類ユニットが存在しても良く(例えばリモートのPCにおいて、既にカメラに結合されたインテリジェント家庭システムを動作させて、又は電力最適化器において)、該ユニットがユーザの挙動の幾つかのインジケータを抽出する(例えば、「IND=受動=1」:ユーザが寝ている可能性がある、「IND=走り回っている=2」:ユーザが活発に室内を走り回っており、たまにしか観られないほど他の活動に従事している見込みが高い、等)。このことは、例えばカメラ画像から抽出された人物オブジェクトの動きパターン解析において実行されても良いが、幾つかの他のアルゴリズムも可能である(例えば、室内の特定の3D位置がカバーされている量、特定の認識されたジェスチャ等を分類する)。]
[0043] 最後に、近年、コンテンツに対する深い没入を可能とし(画像又は少なくとも幾つかの環境的な感覚/示唆が部屋へと拡大される)、透過ディスプレイの空間的な周囲を照明するように構成された照明ユニット191を有するテレビジョン、いわゆるambilightディスプレイが登場している(このことは、他のタイプの表示装置にも発展するであろう)。]
[0044] ambilightを既知のように提示された画像と協調させることも可能であるが、本発明は、別個のアルゴリズムを用いて、ambilightをより最適に制御することを可能とする。ここでは、バランシングは、3つの基準を有する。ambilightにより消費される電力の量。少なくともこれらの光のための電力を節約するため、ユーザが観ない場合にambilightをスイッチオフすれば良いとも考えられ得るが、対照的に、ユーザがテレビジョンを「アンビエンス(ambience)モード」に切り換え、該モードを単に雰囲気を提供するものとして利用して、近くで視聴せずに詳細な画像情報を見ない場合には、ambilightは高い性能を持ち得る。ユーザは典型的には、テレビジョン(画像)全体+ambilightシステムを一種の可変ランプとして利用することから、それとは正反対にコンテンツが重要であり明確に可視となる必要があるシナリオに至るまで、幾つかの選択可能な設置を持つ。ambilightへの電力は、照明される場のサイズ及びどれだけの空間的な変化をもたらせるかといった因子にも依存する(幾つかのLEDモジュール191に対する単一のTL管)。]
[0045] ambilightの「可視性」が新たな基準となる:雰囲気のある黄色で壁全体をペイントすることが、例えば以上の設定に依存して、画像と比べてどれだけ重要か(ここではambilightはビデオ信号よりも低い時間変化に設定され得る)、十分なambilightが生成される必要がある。]
[0046] 周囲の(白い)オブジェクト/壁がambilightに対してどれだけ反射性であるかに特に依存する、画像の可視性。少なくともテレビジョン画像コンテンツが優位であり非常に可視性が高いものであるべき設定においては、ambilightが、視聴者にとって全て黒く見える画像の基本的に周囲にある明るい輪となってしまう(極端な例と言うべき)状況に陥るべきではない。これらのシナリオにおいては、画像コンテンツは増強される必要があり得、より重要にはambilightがことによると上限に制約される必要がある(例えば通常のambilightアルゴリズムが例えば画像コンテンツを統合することにより何を駆動値として与えようとも、最終的な駆動値はクリッピングされ、それにより周囲の輝度が平均画像輝度の10%より小さくなるべきである。このことは典型的には、工場における設定において白い壁を仮定するが、消費者は家庭での較正のための選択肢を持っても良い)。本例において可視性の推定値は、例えばHunt式において、斯かる因子を画像及び周囲のパッチのサイズ及び位置等として考慮に入れることにより導出され得る。]
[0047] 出力は、接続O_AMBILによる、少なくとも1つの最適ambilight駆動値D_AMBである。]
[0048] 本明細において開示されたアルゴリズム的な要素は、実際には(全体が又は一部が)ハードウェア(例えば特定用途向けICの一部)として実現されても良いし、又は特殊ディジタル信号プロセッサ若しくは汎用プロセッサ等で動作するソフトウェアとして実現されても良い。]
[0049] 本開示から、どの要素が任意の改善点か、及びどの要素が他の要素と組み合わせて実現され得るか、更に方法の(任意の)ステップがどのように装置のそれぞれの手段に対応するか、及びその逆は、当業者には理解可能であり、ここではこれらの組み合わせが少なくとも暗黙的に開示されている。本明細書における機器(apparatus)なる語は辞書における最も広義の意味で提示され、即ち特定の目的の実現を可能とする一群の手段であり、それ故例えばIC(の一部)、専用の器具、又はネットワークシステムの一部等であっても良い。]
[0050] 本方法の動作に必要なステップの幾つかは、データ入力及び出力ステップのようなコンピュータプログラムにおいて記載される代わりに、プロセッサの機能に既に存在していても良い。]
[0051] 上述の実施例は本発明を説明するものであって、限定するものではない点は留意されるべきである。当業者は、提示された例の請求の他の範囲へのマッピングを容易に実現することができ、簡潔さのため、これらの選択肢の全てを詳細には言及していない。請求項において組み合わせられた本発明の要素の組み合わせの他に、これら要素の他の組み合わせが可能である。要素のいずれの組み合わせも、単一の専用の要素で実現され得る。]
[0052] 請求項において、括弧に挟まれたいずれの参照記号も、請求の範囲を限定することを意図したものではない。「有する(comprising)」なる語は、請求項に記載されたもの以外の要素又は態様の存在を除外するものではない。要素に先行する冠詞「1つの(a又はan)」なる語は、複数の斯かる要素の存在を除外するものではない。]
权利要求:

請求項1
バックライトと、前記バックライトからの光を変調して画像を生成するためのバルブと、を有する透過ディスプレイであって、接続された視聴者挙動検出手段との接続のためのコネクタと、前記視聴者挙動検出手段から挙動測定信号を受信するための前記視聴者挙動検出手段への入力接続部を持ち、且つ前記挙動測定信号に依存して前記バックライトに最適駆動値を送信するための出力部を持つ、電力最適化器と、を有することを特徴とする透過ディスプレイ。
請求項2
前記電力最適化器は、実行可能なソフトウェア及び/又はハードウェア回路により、前記バックライトが前記最適駆動値により駆動されるときに、前記ディスプレイにより利用される電力に依存して、且つ所定の可視性尺度に依存して、結果として前記最適駆動値を与える関数を算出し、前記生成される画像が前記視聴者にとってどれだけ可視性となるかをモデル化するように構成された、請求項1に記載の透過ディスプレイ。
請求項3
前記電力最適化器は、実行可能なソフトウェア及び/又はハードウェア回路により、前記電力最適化器と前記バルブとの間の出力接続を介して、入力画像の入力駆動値の、前記バルブの画素を駆動するための出力駆動値への変換を算出するように構成された、請求項1又は2に記載の透過ディスプレイ。
請求項4
前記視聴者挙動検出手段はカメラを有し、前記カメラ又は前記電力最適化器が、前記カメラの画像に基づいて、前記視聴者の注視方向を決定するように構成された注視解析器を有する、請求項1乃至3のいずれか一項に記載の透過ディスプレイ。
請求項5
前記視聴者挙動検出手段は、前記透過ディスプレイに対する前記視聴者の距離を検出するための検出器を有し、前記電力最適化器は、前記視聴者の距離に依存して前記最適駆動値及び/又は前記出力駆動値を算出するように構成された、請求項1乃至4のいずれか一項に記載の透過ディスプレイ。
請求項6
前記カメラのシステム又は前記電力最適化器は視聴者行動分類ユニットを有し、前記電力最適化器は、前記視聴者の特定の挙動をモデル化した数に依存して前記最適駆動値及び/又は前記出力駆動値を算出するように構成された、請求項4に記載の透過ディスプレイ。
請求項7
前記透過ディスプレイの空間的な周囲を照明するように構成された照明ユニットを更に有し、前記電力最適化器は、前記挙動測定信号及び/又は前記最適駆動値及び/又は前記出力駆動値に依存して、前記照明ユニットのための駆動値を決定するように構成された、請求項1乃至6のいずれか一項に記載の透過ディスプレイ。
請求項8
請求項1乃至7のいずれか一項に記載の透過ディスプレイのための駆動値を算出する方法であって、前記透過ディスプレイの周囲の環境における潜在的な視聴者の挙動を示す挙動測定信号を得るステップと、前記挙動測定信号、前記駆動値の関数としての電力利用の算出値、及び少なくとも前記透過ディスプレイに表示されるべき画像の可視性の尺度に依存して、制約された電力利用に対する前記駆動値のための最適値を算出するステップと、を有する方法。
类似技术:
公开号 | 公开日 | 专利标题
JP6368385B2|2018-08-01|イメージ・グレーディングを分析するための装置及び方法
USRE47960E1|2020-04-21|Methods and devices of illuminant estimation referencing facial color features for automatic white balance
JP6526776B2|2019-06-05|Hdr画像符号化及び復号のための輝度領域ベース装置及び方法
Rajagopal et al.2014|Visual light landmarks for mobile devices
JP5976035B2|2016-08-23|画像表示装置および制御方法
JP6513648B2|2019-05-15|照明源として構成されるディスプレイデバイス
ES2770426T3|2020-07-01|Improved HDR image encoding and decoding methods and devices
US20180067313A1|2018-03-08|Display method and display apparatus in which a part of a screen area is in a through-state
US9706623B2|2017-07-11|Learning capable control of chaotic lighting
US9787977B2|2017-10-10|3D glasses, display apparatus and control method thereof
KR101861393B1|2018-05-28|통합형 저전력 깊이 카메라 및 비디오 프로젝터 장치
US20160335989A1|2016-11-17|Display device and control method
CN104238948B|2018-01-16|一种智能手表点亮屏幕的方法及智能手表
CN103729981B|2015-10-14|一种儿童坐姿监控智能终端
US9171198B1|2015-10-27|Image capture technique
US9756257B2|2017-09-05|Camera included in display
JP6051648B2|2016-12-27|プロジェクター、およびその制御方法
US8798316B2|2014-08-05|Method and system for controlling lighting
US8743051B1|2014-06-03|Mirror detection-based device functionality
CN103119936B|2017-06-13|用于图像的改进的编码的设备和方法
JP4808420B2|2011-11-02|目の検出を利用した電子装置の制御および電力管理
US7180529B2|2007-02-20|Immersive image viewing system and method
US9836639B2|2017-12-05|Systems and methods of light modulation in eye tracking devices
US9442562B2|2016-09-13|Systems and methods of image processing that adjust for viewer position, screen size and viewing distance
US10598970B2|2020-03-24|Device and method for reducing the dazzle effect in a room of a building
同族专利:
公开号 | 公开日
RU2010125153A|2011-12-27|
CN101868817B|2015-01-07|
US8648844B2|2014-02-11|
JP5823480B2|2015-11-25|
KR20100097166A|2010-09-02|
US20100245330A1|2010-09-30|
EP2212880B1|2016-04-13|
JP5438021B2|2014-03-12|
KR101572813B1|2015-12-01|
WO2009066210A1|2009-05-28|
RU2501095C2|2013-12-10|
CN101868817A|2010-10-20|
JP2014064321A|2014-04-10|
EP2212880A1|2010-08-04|
引用文献:
公开号 | 申请日 | 公开日 | 申请人 | 专利标题
法律状态:
2011-11-08| A621| Written request for application examination|Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111107 |
2012-07-11| A977| Report on retrieval|Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120711 |
2012-08-15| A131| Notification of reasons for refusal|Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120814 |
2012-11-10| A521| Written amendment|Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121109 |
2013-06-05| A131| Notification of reasons for refusal|Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130604 |
2013-09-04| A521| Written amendment|Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130903 |
2013-11-12| TRDD| Decision of grant or rejection written|
2013-11-15| A01| Written decision to grant a patent or to grant a registration (utility model)|Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131114 |
2013-12-19| A61| First payment of annual fees (during grant procedure)|Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131212 |
2013-12-20| R150| Certificate of patent or registration of utility model|Ref document number: 5438021 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
2016-12-27| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 |
2017-12-19| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 |
2018-12-18| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 |
2019-12-24| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 |
2020-12-21| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 |
优先权:
申请号 | 申请日 | 专利标题
[返回顶部]